Създателят на ChatGPT OpenAI очертава план за възпиране на дезинформация за избори
Ето как създателят на ChatGPT OpenAI планира да възпре изборната дезинформация през 2024 г.
Производителят на ChatGPT очерта план за предотвратяване на използването на неговите инструменти за разпространение на избори, докато гласоподавателите в повече от 50 държави се подготвят да гласуват на националните избори тази година.
Предпазните мерки изложени от базираната в Сан Франциско стартираща компания за изкуствен интелект (AI) в публикация в блог тази седмица, включват комбинация от вече съществуващи политики и по-нови инициативи за предотвратяване на злоупотребата с изключително популярните генеративни инструменти за AI.
Те могат да създават нов текст и изображения за секунди, но също така да бъдат въоръжени за измисляне на подвеждащи съобщения или убедителни фалшиви снимки.
Стъпките ще се прилагат специално за OpenAI, само един играч в разширяваща се вселена от компании, разработващи усъвършенствани генеративни AI инструменти.
Компанията, която обяви ходовете в понеделник, заяви, че планира да „продължи работата си по безопасността на платформата чрез повишаване на точната информация за гласуване, налагане на премерени политики и подобряване на прозрачността. ”
2023 г. беше годината, когато AI стана масов. Това беше и годината, в която започнахме да се паникьосваме за товаТой каза, че ще забрани на хората да използват неговата технология за създаване на чатботове, които се представят за реални кандидати или правителства, за да представят погрешно как работи гласуването или да обезсърчават хората да гласуват. Той каза, че докато не бъдат направени повече изследвания за убедителната сила на неговата технология, той няма да позволи на своите потребители да създават приложения за целите на политическа кампания или лобиране.
Започвайки "в началото на тази година," OpenAI каза, че ще постави цифрови водни знаци на AI изображения, създадени с помощта на своя DALL-E генератор на изображения. Това трайно ще маркира съдържанието с информация за произхода му, което ще улесни идентифицирането дали изображение, което се появява другаде в мрежата, е създадено с помощта на AI инструмента.
Компанията също така каза, че си партнира с National Асоциацията на държавните секретари да насочва потребителите на ChatGPT, които задават логистични въпроси относно гласуването, към точна информация на безпартийния уебсайт на тази група, CanIVote.org.
Мекела Пандитаратне, съветник в програмата за демокрация в Центъра за правосъдие Бренан, каза, че плановете на OpenAI са положителна стъпка към борбата с дезинформацията за изборите, но това ще зависи от това как ще бъдат приложени.
Например, колко изчерпателни и изчерпателни ще бъдат филтрите при маркиране на въпроси относно изборния процес?“ каза тя. „Ще има ли предмети, които да се промъкнат през пукнатините?“
Моделите с изкуствен интелект могат да бъдат обучени да бъдат измамни с „неефективни“ предпазни парапети, откриват изследователитеChatGPT и DALL-E на OpenAI са едни от най- мощни генериращи AI инструменти към днешна дата. Но има много компании с подобна сложна технология, които не разполагат с толкова много предпазни мерки срещу изборна дезинформация.
Докато някои компании за социални медии, като YouTube и Meta, въведоха Политики за етикетиране на ИИ, остава да се види дали те ще могат постоянно да хващат нарушителите.
„Би било полезно, ако други фирми за генериране на ИИ приемат подобни насоки, за да може да има прилагане на практически правила в цялата индустрия ”, каза Даръл Уест, старши сътрудник в Центъра за технологични иновации на Brooking Institution.
Без доброволно приемане на такива политики в индустрията, регулирането на генерираната от AI дезинформация в политиката би изисквало законодателство. В САЩ Конгресът все още не е приела законодателство, което да регулира ролята на индустрията в политиката, въпреки известна двупартийна подкрепа. Междувременно повече от една трета от американските щати са приели или въвели законопроекти за справяне с дълбоките фалшификации в политическите кампании, тъй като федералното законодателство е в застой. не е спокоен.
„Мисля, че е добре, че имаме много тревоги и ще направим всичко възможно, за да го оправим възможно най-добре“, каза той по време на интервю във вторник в Събитие на Bloomberg по време на Световния икономически форум в Давос, Швейцария.
„Тази година ще трябва да наблюдаваме това невероятно внимателно. Супер строг мониторинг. Супер тясна верига за обратна връзка.“
